- 综合排序
- 最热优先
- 最新优先
昇腾 910B 国产 GPU 适配改造，异构算力租赁兼容 CUDA 环境实操
昇腾 910B 异构兼容层、算子自动转换工具链可实现 90% 通用 CUDA 算子无人工改造，将迁移工时压缩至原有 31%。 混合调度网关工具 多模型统一聚合 API：兼容 CUDA GPU、昇腾 NPU 异构算力，统一 OpenAI 接口，自动分发任务至两类算力，实现业务无感知切换。 四、昇腾 910B 兼容 CUDA 标准化改造实操经验（一线排坑复盘）结合百余套异构算力迁移项目，整理四阶段标准化改造流程，规避高频适配故障。1. 国产算力运维职业心得多数技术团队存在 “重模型算法、轻异构底层兼容” 的认知偏差，单纯更换昇腾硬件无法实现 CUDA 业务平滑迁移，算子转换、内存调度、整机底层配套缺一不可。 完整的异构 CUDA 兼容改造是 “整机硬件 + 转换工具栈 + 标准化迁移流程” 三位一体体系，缺少任意一环都会大幅抬高迁移工时与算力损耗，违背信创降本增效的落地目标。
20710编辑于 2026-06-16- 来自专栏GPUS开发者
CUDA12.2发布：引入异构内存管理（HMM）
6月底，NVIDIA悄悄发布CUDA Toolkit12.2。 新发布的版本引入了异构内存管理（Heterogeneous Memory Management，HMM），实现了主机内存和加速器设备之间的数据无缝共享。 ▶ Linux上默认启用Lazy Loading功能（在CUDA 11.7中引入）。在启动之前，要禁用此功能，请设置环境变量CUDA_MODULE_LOADING=EAGER。 Windows的默认启用将在未来的CUDA驱动程序发布中实现。要在Windows上启用此功能，请设置环境变量CUDA_MODULE_LOADING=LAZY。 ▶ 主机NUMA内存分配：使用CUDA虚拟内存管理API或CUDA流有序内存分配器，分配CPU内存以针对特定的NUMA节点。
1.9K40编辑于 2023-08-08 - 来自专栏GPUS开发者
NVIDIA Jetson 上可以兼容多个CUDA版本了？
Jetson 上的 CUDA 可升级包 为何以前不提供的理由是，Jetson上的CUDA和普通系统上的CUDA不一样，它基本的系统里面（Jetpack或者BSP的二次开发出来的）就固定含有了CUDA驱动了 Jetson 上的 CUDA 升级路径 通过引入 CUDA 驱动程序升级（也称为 CUDA 兼容性包），这些升级成为可能，如图 2 所示。 引入新的 CUDA 升级包 说白了，就是引入了一个叫中间兼容层的东西 （cuCompart)，引入了这个东西为啥就解决了呢？ 总之，这是一个很好的特性，通过引入了新的兼容层次，让Jetson系统无需频繁更新，可以保持稳定性；同时又能享受到最新的CUDA开发包红利。 更多： CUDA Toolkit 11.8 新功能揭晓 NVIDIA出了这么多Jetson模组，到底兼容不？
2.5K20编辑于 2022-10-11 - 来自专栏软件绿色联盟动态
兼容并蓄——MNN异构计算设计与实践
对于异构计算而言碎片化是非常大的挑战。 首先是兼容性问题，同一套代码可能在A手机上跑得好好的，而在B手机上就崩溃或者不能使用了。 二 MNN中异构计算实现方案 在讲MNN异构计算的实现方案之前，我们先来看模型推理的流程。模型推理是一种特珠的有向无环图计算过程，图中每个节点称为算子，计算的输入输出都是张量。 最简单的异构计算设计是直接在算子层别引入加速，将算子的输入复制到执行端所需的内存上，异构计算完成后再复制回来，这样做会有较多的内存拷贝的损耗，移动端上一般会抵消异构计算本身的收益。 为了尽可能解决兼容性和性能的问题，利用模型推理过程中内存大小和图的结构不变的特性，我们将端上推理的计算过程分解为图计算调度、形状计算、资源准备、执行计算四步。 图计算调度是确定计算图执行顺序。 内核方面，OpenCL 的二进制形式无法保持兼容性，一般只能基于code形式编译，而Vulkan和Metal可以二进制形式加载，减少启动时间。
1.9K30编辑于 2022-03-31 - 来自专栏TechLead
CUDA常见驱动程序兼容性问题一览
CUDA常见驱动程序兼容性问题一览 关注TechLead，复旦博士，分享云服务领域全维度开发技术。 驱动程序兼容性问题 驱动程序的兼容性对于CUDA的正常运行至关重要。在Linux系统中，驱动程序的安装与配置常常面临各种问题。 本文将详细列举驱动程序兼容性问题及其解决方案，确保能够顺利配置和使用CUDA环境。 如果驱动版本过低或过高，可能导致CUDA无法正常工作。 更新CUDA Toolkit后驱动不兼容：更新CUDA Toolkit时，如果未同步更新NVIDIA驱动，可能出现兼容性问题。 解决方案 检查兼容性表：在安装或更新CUDA Toolkit之前，参考NVIDIA CUDA兼容性表确认驱动版本。
1.2K10编辑于 2024-08-01 - 来自专栏人工智能LeadAI
Nvidia GPU驱动与CUDA、Ubuntu内核兼容性问题的解决日志
初步判断原因是显卡驱动(nvidia driver 387.26)和新的linux kernel(4.13.0-31-generic)不兼容导致的。 操作系统：ubuntu 16.04 系统内核： Linux version 4.13.0-31-generic GPU： GTX 1080 CUDA：cuda-9.1, cudnn-7.0.1，deb local)安装方式 nvidia driver： nvidia driver 387.26 Nvidia已经更新了驱动，只需要安装新的驱动就可以解决linux kernel和nvidia driver不兼容的问题 Current official release: nvidia-387 (387.34)...） 1、卸载现有GPU驱动 2、PPA安装新的GPU驱动 3、重启 4、deb (network)的方式安装CUDA
2.6K30发布于 2018-07-26 - 来自专栏全栈程序员必看
【CUDA】cuda安装 （windows版）
【CUDA】cuda安装 （windows10版） 本次安装参考了网上许多教程，结合自己的需求与理解，写下此篇博客，仅做本人总结使用。。 一、前言 windows10 版本安装 CUDA ，首先需要下载两个安装包 CUDA toolkit（toolkit就是指工具包） cuDNN 注：cuDNN 是用于配置深度学习使用 官方教程 CUDA /cuda-downloads? /cuda-toolkit-release-notes/index.html CUDA的版本是跟显卡型号有关还是驱动有关？ 一般是驱动版本决定了能用的CUDA版本的上限，比如新版的显卡驱动可以支持老的CUDA runtime。
14.4K20编辑于 2022-09-06 - 来自专栏全栈程序员必看
CUDA编程注意(CUDA编程)
CUDA编程注意 传给CUDA编译器编译的文件里不能包含boost的头文件，会报错。例如xxCUDA.cuh中最好不要包含boost的头文件。 CUDA编程中核函数一般写在.cu文件中，也可以使用.cu生成的ptx文件（起到了类似OpenGL中的着色器的作用）添加到C++的程序中，cuda给了一套使用ptx编程的接口，这使得CUDA程序不需要. 详情见https://www.cnblogs.com/redips-l/p/8372795.html 给CUDA核函数传参时，允许传入结构体，结构体中的元素会被默认设置为常量内存，如果结构体中存在指针成员
1.8K20编辑于 2022-08-01 - 来自专栏全栈程序员必看
CUDA 的卸载_cuda怎么安装
问题来源 对于刚接触人工智能领域不久的我而言，装 CUDA 等一些跑模型需要用到的工具是一件痛苦的事，稍不注意就会导致版本依赖问题，最终可能会需要你把前面安装的东西都卸载掉并重新下载，故本文记录如何卸载 CUDA 使得卸载干净。 这一步执行完后，基本电脑上所有关于错误版本的 CUDA 都会被卸载干净，接着就可以进行新版本的 CUDA 的安装操作。 版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。
4K20编辑于 2022-10-03 - 来自专栏公有云大数据平台弹性 MapReduce
HDFS 异构存储
需求 Hadoop 从 2.4 后开始支持异构存储，异构存储是为了解决爆炸式的存储容量增长以及计算能力增长所带来的数据存储需求，一份数据热数据在经历计算产生出新的数据，那么原始数据有可能变为冷数据，随着数据不断增长差异化存储变的非常迫切
4.6K21发布于 2017-07-28 hadoop异构存储
·Hadoop异构存储是一种基于HDFS的存储优化技术，通过将不同热度的数据分配到不同类型的存储介质上实现性能与成本的平衡。 以下是其核心原理和实现方式： 一、核心概念 异构存储基本原理：Hadoop集群允许使用SSD、HDD、ARCHIVE等多种存储介质，根据数据的访问频率（热/温/冷）匹配对应的存储类型，例如SSD存储频繁访问的热数据 四、注意事项 数据迁移延迟：策略变更后数据移动可能需要触发条件（如写入、Balancer运行）才会生效； 策略继承规则：目录的存储策略默认继承父目录，根目录默认为HOT3； 版本兼容性：需Hadoop 2.6+版本支持，部分特性（如HBase WAL异构存储）需HBase 1.1+。 通过上述机制，Hadoop异构存储实现了存储资源的智能调度，兼顾性能需求和成本控制。
37710编辑于 2025-12-23- 来自专栏松华说
谈谈数据异构
这就是我今天要和大家讨论的数据异构，将数据进行异地异构存储，比如说需要整合多张表数据构成一条记录然后异地存储。 我们先来看下第一种方案，就是双写，业务代码在对数据库操作时同步缓存。 那有没有更好的方案完成数据异构呢？答案就是利用Mysql的binlog日记。 可以看出binlog日记具备高可靠性、低时延性，所以我们可以利用binlog日记来完成数据异构。 好，今天我主要和你讨论了关于如何利用数据异构实现多级缓存，这个技术还可以解决下面这种问题，比如数据库分库分表后如何进行数据迁移，当然后者的实现更加复杂，需要考虑数据校验问题，就不再展开了。
3.7K30发布于 2019-12-03 - 来自专栏最新医学影像技术
CUDA入门教程（一）——CUDA安装
CUDA框架是NVIDIA发布的在GPU上的并行计算的平台和模型, 在2006年第一代CUDA发布,到现在已经是第9代CUDA。今天我将分享如何正确安装CUDA并调试样例。 （2）、下面就要下载CUDA Toolkit安装包，我的电脑系统时win10企业版本，所以我下载的CUDA Toolkit8.0 win10版本。 ? （3）、下载完成后安装时选择自定义安装，我们将Samples项目安装到我们自己想要的路径下（D:\CUDA Project）。 ? （4）、安装完成后，用VS2015打开上面Samples项目。 解决方法：通过查阅资料，了解到CUDA需要在.NET Framwork3.5的环境下工作，而win10默认时没有安装.NET Framwork3.5，只安装了.NET Framwork4.7。
3.4K21发布于 2020-06-29 - 来自专栏全栈程序员必看
CUDA是什么-CUDA简介「建议收藏」
CUDA编程入门极简教程 显卡、GPU和CUDA简介 本文内容 CPU、GPU CPU GPU CPU与GPU CUDA编程模型基础 CUDA 编程模型 线程层次结构 CUDA的内存模型 GPU并不是一个独立运行的计算平台，而需要与CPU协同工作，可以看成是CPU的协处理器，因此当我们在说GPU并行计算时，其实是指的基于CPU+GPU的异构计算架构。 在异构计算架构中，GPU与CPU通过PCIe总线连接在一起来协同工作，CPU所在位置称为为主机端（host），而GPU所在位置称为设备端（device）。 因此，基于CPU+GPU的异构计算平台可以优势互补，CPU负责处理逻辑复杂的串行程序，而GPU重点处理数据密集型的并行计算程序，从而发挥最大功效。 线程层次结构 核 kernel CUDA执行流程中最重要的一个过程是调用CUDA的核函数来执行并行计算，kernel是CUDA中一个重要的概念。
11.2K46编辑于 2022-09-02 - 来自专栏全栈程序员必看
windows cuda安装_虚拟机 cuda
1. cuda的安装 到 https://developer.nvidia.com/cuda-downloads (旧：URL )去下载。在安装的时候一定要自定义安装，否则将会安装很多无用的东西。 测试环境是否安装成功 运行cmd，输入nvcc --version 即可查看版本号； set cuda，可以查看cuda设置的环境变量。 3. 自己配置cuda项目 （1）打开vs2017，创建一个空win32程序,即cuda_test项目。 （2）选择cuda_test，点击右键–>项目依赖项–>自定义生成，选择CUDA10.1。 （3）右键源文件文件夹->添加->新建项->选择CUDA C/C++File，取名cuda_main。 （4）点击cuda_main.cu的属性,在配置属性–>常规–>项类型–>选择“CUDA C/C++”。 注意：以下步骤中的项目属性设置均针对x64。
3.2K10编辑于 2022-09-21 - 来自专栏vanguard
CUDA installation
CUDA / Compute Unified Device Architecture / CUDA Toolkit / 工具包 - https://docs.nvidia.com/cuda/index.html 借助CUDA，开发人员能够利用GPU的功能来显着加快计算应用程序的速度。 CUDA工具包包括GPU加速的库，编译器，开发工具和CUDA运行时。 /repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin 装驱动和cuda 2.
1.8K30发布于 2021-04-29 - 来自专栏喔家ArchiSelf
解读CUDA
此外，PyTorch 使用了 CUDA 与 GPU 接口，所以即使我们正在使用 PyTorch，也可能在底层使用了 CUDA。 我们可以在 CUDA 中创建自定义的 PyTorch 功能，CUDA 可以成为一个有用的技能来学习。 那么，如何学习CUDA呢？ 让我们从计算机的体系结构谈起。 1. 面向GPU的编程框架-CUDA CUDA（Compute Unified Device Architecture）是 NVIDIA 的并行计算平台。 下面是 CPU 上的实现: %%cuda #include <iostream> #include <ctime> #include <cuda.h> #include <cuda_runtime.h> 一般来说，在进行 CUDA 编程时，大部分时间都花在优化内存和设备间通信上，而不是计算本身。 4. 基于CUDA 的神经网络编程 CUDA，从硬核低级开发人员的角度来看，实际上是一个高级编程工具。
42010编辑于 2025-12-24 - 来自专栏Java架构师必看
cuda教程
做图像视觉领域的同学多多少少都会接触到CUDA，毕竟要做性能速度优化，CUDA是个很重要的工具，CUDA是做视觉的同学难以绕过的一个坑，必须踩一踩才踏实。 CUDA编程真的是入门容易精通难，具有计算机体系结构和C语言编程知识储备的同学上手CUDA编程应该难度不会很大。 本文章将通过以下五个方面帮助大家比较全面地了解CUDA编程最重要的知识点，做到快速入门： GPU架构特点 CUDA线程模型 CUDA内存模型 CUDA编程模型 CUDA应用小例子 1. 一般而言，并行部分在GPU上运行，串行部分在CPU运行，这就是异构计算。具体一点，异构计算的意思就是不同体系结构的处理器相互协作完成计算任务。 CUDA线程模型 下面我们介绍CUDA的线程组织结构。首先我们都知道，线程是程序执行的最基本单元，CUDA的并行计算就是通过成千上万个线程的并行执行来实现的。
4.2K30编辑于 2022-03-22 - 来自专栏xingoo, 一个梦想做发明家的程序员
cuda by example
int offset= x+y*dim x 线程块内的线程索引 y 线程块索引 dim 线程块的维度 tid = threadIdx.x+blockIdx.x*blockDim.x 计算大于或等于128的最小倍数（127+x）/128 kernel<<<(x+127)/128,128>>>(a,b,c) 规约求和 int i= blockDim.x/2; while(i != 0){ if(cacheIndex < i) cache[cacheIndex] += cache[cac
1.2K60发布于 2018-01-17 - 来自专栏Fish
安装CUDA
这次讲讲怎么安装CUDA 当然，你需要要把GPU插到电脑上，然后，嗯，把显示器插到GPU的口上(别问我怎么知道的)。 下载cuda 从cuda官网选择要下载的cuda版本，然后根据提示走一波，主要是酱： sudo dpkg -i cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1 _amd64.deb sudo apt-get update sudo apt-get install cuda 10. 安装CUDA的SDK-toolkit sudo apt install nvidia-cuda-toolkit 11.
2.3K71发布于 2018-01-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号